Ông lập gia đình với bà Nguyễn Thị Lệ, sinh năm 1909. Bà Lệ cũng là một trong những đảng viên đầu tiên của Đảng Cộng sản Việt Nam. Ông bà sống với nhau từ năm 1929, nhưng mãi đến năm 1936, khi 2 ông bà ra tù mới chính thức làm đám cưới.

Ông bà có với nhau 3 người con.

• Người con trai đầu sinh năm 1929, được gửi nhờ một cơ sở cách mạng ở tỉnh Hải Dương nuôi hộ. Sau Cách mạng tháng 8, ông bà được tin con trai đầu lòng đã mất sớm.
• Người con trai thứ hai sinh năm 1931 khi bà đang ở trong tù, được gửi ra ngoài để nuôi dưỡng, nhưng đau đó bị thất lạc không rõ tông tích.
• Con gái của ông bà tên Trịnh Tô Hợp, từng được cử sang Liên Xô học nghiên cứu tên lửa, sau tham gia quân đội, cấp bậc Đại tá, Trưởng phòng tại Phân viện tên lửa.[4]